Изследователите на AI бият тревога на излизане

Вижте всички тематики Връзката е копирана! Следвайте

Версия на тази история се появи в бюлетина Nightcap на CNN Business. За да го получите във входящата си поща, регистрирайте се гратис.

„ Светът е в заплаха “, предизвести някогашният началник на изследователския екип на Anthropic, до момента в който се насочваше към изхода. Изследовател на OpenAI, също на излизане, сподели, че технологията има „ капацитет за манипулиране на потребителите по способи, които нямаме инструментите да разберем, камо ли да предотвратим “.

Те са част от вълна от откриватели и ръководители на изкуствен интелект, които не просто напущат своите работодатели – те мощно бият алармата на излизане, привличайки вниманието към това, което виждат като яркочервени флагове.

Въпреки че Силициевата котловина е известна с висок оборот, последното отдръпване идва, когато пазарни водачи като OpenAI и Anthropic се надпреварват към първоначални обществени предлагания, които биха могли да подтикват растежа им, като в същото време приканват към интензивно наблюдаване на техните интервенции.

Само през последните няколко дни редица високопоставени чиновници на AI взеха решение да се откажат, като някои категорично предизвестиха, че фирмите, за които са работили, се движат прекомерно бързо и омаловажават минусите на технологията.

Zoë Hitzig, откривател в OpenAI през последните две години, излъчи оставката си в сряда в есе на New York Times, цитирайки „ дълбоки запаси “ по отношение на нововъзникващата рекламна тактика на OpenAI. Хициг, който предизвести за капацитета на ChatGPT за манипулиране на потребителите, сподели, че архивът на потребителските данни на чатбота, построен върху „ медицински страхове, техните проблеми във взаимоотношенията, техните вярвания за Бог и отвъдния живот “, съставлява етична алтернатива тъкмо тъй като хората имат вяра, че пишат с стратегия, която няма скрити претекстове.

Критиката на Hitzig идва, когато уеб сайтът за софтуерни вести Platformer оповестява, че OpenAI разпусна своя екип за „ подравняване на задачата “, основан през 2024 година, с цел да разпространява задачата на компанията да подсигурява, че цялото човечество ще се възползва от преследването на „ неестествен общ разсъдък “ – предполагаем AI, кадърен да мисли на човешко равнище.

OpenAI не отговори незабавно на искане за коментар.

Също тази седмица Мринанк Шарма, началник на изследователския екип за защитни ограничения на Anthropic, разгласява загадъчно писмо във вторник, в което афишира решението си да напусне компанията и предизвестява, че „ светът е в заплаха “.

Писмото на Шарма съдържа единствено бегли препратки към Anthropic, компанията зад чатбота Claude. Той не сподели за какво напуща, само че означи, че „ ми е ясно, че е пристигнало времето да продължа напред “ и че „ през времето, прекарано тук, неведнъж съм виждал какъв брой мъчно е в действителност да оставим нашите полезности да ръководят нашите дейности. “

Anthropic сподели пред CNN в изказване, че е признателен за работата на Sharma в напредъка на проучванията за сигурност на AI. Компанията означи, че той не е бил началник на сигурността, нито е отговарял за по-широките защитни ограничения в компанията.

Междувременно в xAI двама съоснователи напуснаха в границите на 24 часа тази седмица, обявявайки напускането си на X. Това оставя единствено половината от създателите на xAI да останат във компанията, която се слива със SpaceX на Илон Мъск, с цел да сътвори най-ценната частна компания в света. Най-малко петима други чиновници на xAI оповестиха напускането си в обществените медии през последната седмица.

Не беше незабавно ясно за какво последните съоснователи на xAI напуснаха и xAI не отговори на искане за коментар. В обява в обществените медии в сряда Мъск сподели, че xAI е „ реорганизиран “, с цел да форсира растежа, което „ за жалост изисква разлъка с някои хора “.

Въпреки че не е извънредно за гении на високо равнище да подскачат в нововъзникваща промишленост като AI, мащабът на отклоненията за толкоз къс интервал в xAI се откроява.

Стартъпът се сблъска с световна реакция против своя чатбот Grok, на който беше разрешено да генерира без единодушие нецензурен изображения на дами и деца в продължение на седмици, преди екипът да се намеси, с цел да го спре. Грок също е бил податлив да генерира антисемитски мнения в отговор на потребителски подкани.

Други скорошни напускания акцентират напрежението сред някои откриватели, обезпокоени за сигурността, и висши ръководители, нетърпеливи да генерират доходи.

Във вторник The Wall Street Journal заяви, че OpenAI уволни един от своите висши ръководители по сигурността, откакто тя изрази опълчване на стартирането на „ режим за възрастни “, който разрешава порнографско наличие в ChatGPT. OpenAI уволни изпълнителния шеф по сигурността, Ryan Beiermeister, на съображение, че тя е дискриминирала мъжки чиновник - обвиняване, което Байермайстер сподели на Journal, е „ безусловно погрешно “.

OpenAI сподели пред Journal, че нейното уволняване не е обвързвано с „ който и да е въпрос, който тя е повдигнала, до момента в който е работила в компанията “.

Дезертьорството на високо равнище е част от историята на ИИ, откогато ChatGPT излезе на пазара в края на 2022 година Не след дълго Джефри Хинтън, прочут като „ Кръстникът на ИИ “, напусна ролята си в Гугъл и стартира да проповядва това, което той вижда като екзистенциални опасности, които ИИ съставлява, в това число солидни стопански катаклизми в свят, в който мнозина „ към този момент няма да могат да знаят кое е истината “.

Прогнозите за края на света изобилстват – в това число измежду ръководителите на AI, които имат финансов тласък да раздухват силата на личните си артикули. Една от тези прогнози стана вирусна тази седмица, като основният изпълнителен шеф на HyperWrite Мат Шумър разгласява съвсем 5000 думи за това по какъв начин най-новите модели на AI към този момент са създали някои софтуерни специалности остарели.

„ Казваме ви какво към този момент се е случило в нашите лични работни места “, написа той, „ и ви предизвестяваме, че вие сте идващият. “